Learning from the Future: Privileged Self-Distillation for Sequential Recommendation
从未来学习：时序推荐的特权自蒸馏
🧭 序列推荐 · 自蒸馏与特权信息利用
Renmin University of China · National University of Singapore · Alibaba Group
将未来交互作为训练特权信息，通过双视图自蒸馏提升序列推荐性能，不增加推理成本
📌 工作参考价值（3 点）
- 在训练序列推荐模型时，可利用用户完整会话中的后置交互作为特权信息，构建双视图自蒸馏：一个掩码看到未来项（教师），另一个只看历史前缀（学生），共享同一 backbone，蒸馏后不改变推理模型与成本，适合对延迟敏感的电商场景。
- 动量平均教师（EMA）和优势可达门控是两个关键稳定性 tricks：EMA 教师参数随学生缓慢更新，避免噪声；可达门控根据历史前缀判断未来项是否可达，自适应加权蒸馏损失，能防止强制学习不可达的未来，可迁移到其他 teacher-student 蒸馏任务。
- 该方法可叠加到任意因果注意力序列模型（如 SASRec）上，无需单独预训练教师，端到端单阶段训练，工程实现成本低：仅需在数据加载时保留多步未来，并在 attention 层插入一个额外的未来感知掩码，适合快速实验。